AI: China warnt vor „Risiken für die nationale Sicherheit“

Das chinesische Ministerium für Staatssicherheit warnte am Mittwoch vor den Risiken, die mit dem Missbrauch künstlicher Intelligenz (KI) verbunden sind. Die Technologie könne die gesellschaftliche Stabilität, den Schutz sensibler Daten und die nationale Sicherheit gefährden.

In einer im sozialen Netzwerk WeChat veröffentlichten Erklärung erkannte das Ministerium die Vorteile der KI für die wirtschaftliche und soziale Entwicklung an, betonte jedoch, dass ihr unsachgemäßer Einsatz die Verbreitung von Desinformation und anderen schädlichen Aktivitäten erleichtern könne.

Die chinesischen Behörden haben erklärt, dass KI-Systeme, die in der Lage sind, manipulierte Inhalte zu generieren – indem sie Deep-Learning-Algorithmen mit gefälschten Bildern, Tönen oder Videos kombinieren – von ausländischen Unternehmen dazu verwendet werden könnten, „Unruhen“ in der chinesischen Bevölkerung zu schüren.

Obwohl Techniken zur Generierung ultrarealistischer Inhalte legitime Anwendungen in der Film-, Werbe- und Videospielbranche haben, warnte das Ministerium, dass ihre illegale Verwendung die Rechte des Einzelnen verletzen und dazu verwendet werden könnte, „die öffentliche Meinung zu verwirren“.

In der Erklärung wird auch darauf hingewiesen, dass generative KI-Systeme in der Lage sind, sensible personenbezogene Daten zu sammeln, zu speichern und sogar offenzulegen. Diese könnten von ausländischen Geheimdiensten für „Subversions-, Infiltrations- und Sabotageaktivitäten“ in China genutzt werden.

Ein weiterer Grund zur Sorge sind Algorithmen, die mit ideologischer Voreingenommenheit manipuliert werden und der Verbreitung „ voreingenommener Ideologien “ dienen können.

Das Sicherheitsministerium forderte die Bevölkerung dazu auf, ihre Fähigkeit zu stärken, „ die Richtigkeit von Informationen zu erkennen “, und bekräftigte die Notwendigkeit, sicherzustellen, dass beim Einsatz von KI die von den Behörden festgelegten Grundsätze eingehalten werden.

Seit 2023 hat China Vorschriften für Dienste der künstlichen Intelligenz erlassen, die von diesen Plattformen die Achtung „grundlegender sozialistischer Werte“ verlangen und die Erstellung von Inhalten verbieten, die die nationale Sicherheit, die territoriale Einheit und die soziale Stabilität untergraben.

Trotz des rasanten Wachstums des KI-Sektors des Landes mit Chatbots , die von Unternehmen wie Alibaba, DeepSeek, Tencent und Bytedance entwickelt wurden, bestehen weiterhin Zweifel hinsichtlich der Anwendung und Wirksamkeit dieser Technologien in einem Umfeld, das stark von staatlicher Zensur kontrolliert wird.

Das Ministerium für Staatssicherheit nutzt seinen offiziellen WeChat-Account häufig, um Spionagefälle öffentlich zu machen und die Bürger zur Wachsamkeit aufzurufen. Es rät ihnen, bei verdächtigen Stellenangeboten, insbesondere aus dem Ausland, vorsichtig zu sein und die Weitergabe vertraulicher Informationen im Internet zu vermeiden.

Im Jahr 2023 rief das Ministerium zur Mobilisierung der gesamten Gesellschaft auf, um „Spionage zu verhindern und zu bekämpfen“ und kündigte Maßnahmen zur „Stärkung der Landesverteidigung“ gegen „ausländische Geheimdienstaktivitäten“ an.